針對智慧製造情境中易產生延遲之環節，5G及邊緣運算定義了新的應用標準，除降低延遲，也兼顧了服務品質(QoS)的確保，以及可靠性的提升。下列將聚焦討論相關標準的低延遲特性，並應用於數據前處理、數據傳輸、以及數據運算三大環節。
影像編解碼為數據前處理重點
在實際工業場景中，智慧製造終端設備產出的數據源十分異質且多樣，例如產線設備的Log檔、AMR移動的位置數據、類比機台波形數據、視覺檢測的串流影像數據等，其數據格式與最低延遲需求亦有不同。本處以智慧應用(如AOI瑕疵檢測、MR遠距維修、遠端機器操作)中占頻寬最大，即時處理需求也較高的連續影像編碼為例，說明新型態低延遲影像數據壓縮技術發展。
綜觀影像編碼格式的沿革，2003年由第三代合作夥伴計畫(3GPP)所發布的H.264仍為目前應用主流，並為大量終端設備用於無線傳輸環境中。然而在頻寬成本逐日提高，處理大量低延遲影像數據的需求日益迫切，H.264視訊編碼已不足因應巨量影像低延遲編碼的任務需求。2020年7月，由制定5G標準的國際電信聯盟(ITU-T)、國際標準化組織(ISO)以及國際電工委員會(IEC)組織共同審定的影像編碼標準VVC(Versatile Video Coding，或H.266)，就是以具備高壓縮率、低延遲編碼的特性，適應上述場域應用的需求。
在影像壓縮率上，VVC標準在制定時就已納入4K、8K串流規格，針對同一影像品質壓縮的大小僅為前一代H.265的30% 至50%，其峰值訊噪比(PSNR)表現亦較佳，意味著在同一影像失真率的比較下，其Bit-rate僅為H.265的一半。
除更高的壓縮比，VVC視訊編碼的低延遲特性，主要以強制的漸進解碼更新(GDR)要求來達成。在視訊編碼中，通常會將不同的圖像分為偵內關鍵影格(I-Frame，例如場景切換較大時)，或者偵間影格(P-Frame或B-Frame，變化較小，可參照前後的I-Frame進行編碼)。在編碼時，偵內關鍵影格的位元率遠高於其他影格，因此在編碼/解碼處理關鍵影格時，會出現突波(Peak)，而增加了編解碼的延遲。GDR技術則通過將關鍵影格內編碼區域分布在多個圖片上，逐步刷新圖片，來緩解關鍵影格在解碼端出現突波情形，以優化編解碼的延遲問題。
實際上，上述的GDR技術在H.264就被以自定義訊息(SEI)的方式引入，惟在2020年VVC規格確定時，成為必要的編、解碼端功能，這也確保了符合VVC 標準的設備具有互操作性特性，確保編碼、解碼端都能以同樣協定，降低端對端的延遲，可滿足5G環境中的低延遲應用需求，如即時設備遠程控制、快速輸送帶上的視覺瑕疵檢測與撿貨。此外，VVC亦以V-PCC格式，支援原生的點雲(Point Cloud)數據壓縮，可適用於需要高效率感測、處理及分析3D環境資訊(如3D機器視覺)的工業應用。
然VVC雖具高壓縮、低延遲、以及原生點雲格式壓縮特性，其運算複雜度亦較高。根據VVC VTM(VVC Test model)測試，其編碼複雜度相較前一代的H.265複雜10倍，解碼複雜度則為1.7倍，因此需有特定硬體模組支持，才得以實現較高效的編碼運算，連帶提高了設備硬體成本，對於普及化造成一定障礙。
除VVC編碼，壓縮與解壓縮端亦能在演算法上以非同步編解碼、指令管線化方式降低延遲，或在設備端設置針對特定影像需求的非泛用性客製化ASIC(Application Specific Integrated Circuit)或FPGA(Field Programmable Gate Array)晶片，進行特殊條件下物件特徵的辨識與擷取，例如基於視覺定位與地圖構建(VSLAM)的AMR，將特化的演算法部署於SoC(如FPGA架構)，以降低對影像編碼依賴及運算時間成本，達到更低的應用延遲率。
uRLLC實現超低延遲傳輸
當數據被終端設備編碼完成，數據將經由廠區內的5G無線訊號空間，傳輸至伺服器端進行運算。第三代合作夥伴計劃(3GPP)所定義5G環境下傳輸通訊標準超可靠低延遲通訊(uRLLC)，即為針對高可靠性以及低延遲應用需求下的標準規範，其應用領域包括物聯網、智慧電網、自駕車、虛擬實境應用、遠距操作以及工廠自動化等範疇。
uRLLC的延遲與可靠性要求定義，為「端對端需在1毫秒(ms)延遲率的條件下，傳送32 Byte封包，並且可靠性達99.999%」。uRLLC能達到低延遲的做法，包括彈性的NR時隙(Slot)長度，相比於4G固定長度1ms的傳輸單元，可針對數據封包進行更靈活的處理。此外，5G的uRLLC在單一Slot中另導入了微型時間槽(mini-slot)，當有突發的URLLC 傳輸封包時，mini-slot可被迅速插入到傳輸的時隙(Slot Interval)中，無需等待下一個Slot開始點，因而能夠提升反應速度，縮短數據傳輸的延遲。
而uRLLC達成低延遲的另一特色，則為上傳免授權機制，數據傳輸前，終端裝置無須先向基站發送SR(Request)請求，也無需等待SG(Granted)數據傳遞請求回覆，因而能進一步節省數據請求與資源調度之延遲。然而更靈活的封包傳輸框架配置，也意味著對網路基站等硬體運算密集度要求的提升。
2022年8月，3GPP更對5G應用標準制定的Release 17進行凍結，在uRLLC上強化了資源配置、端對端延遲，以及支援時間敏感通訊(TSC)，進一步提升終端設備低延遲的數據同步。此外ITU-T六月於日內瓦進行的6G標準共識會議，亦預計納入xURLLC(Extreme URLLC)傳輸標準，聚焦於進一步縮短傳輸延遲、以及更高可靠度的追求。
除了5G底層的uRLLC通訊協定，不同的應用情境亦可採用不同的上層通訊標準，例如用於邊緣環境設備去中心化的點對點通訊協定DDS(Data Distribution Service)，以及建立於DDS的ROS 2機器協作通訊標準，就是利用單一的資料渠道，提供設備間傳遞及接收任，而無須通過單一伺服器進行調控，進一步縮短設備間通訊的延遲。
邊緣運算強化資料處理即時性
待邊緣雲伺服器藉由邊緣閘道、5G基站接收設備傳入之數據，並使用與設備端對應之解碼器進行解碼後，邊緣伺服器即開始進行運算工作，如藉由雲端布署至邊緣容器的AI模型，對設備傳入的影像數據進行分析比對，或針對大量IoT數據進行即時的偵錯分析，或者單純由邊緣資料庫撈取設備所需之資料，回擲至裝置進行顯示。
此環節所產生之延遲，主要與邊緣伺服器之硬體架構、晶片指令集相關。從伺服器的CPU運算晶片的指令集來區分，目前主要可分為兩大陣營，即x86的CISC(Complex Instruction Set Computer)複雜指令集架構，以及RISC(Reduced instruction set computer)的簡易指令集架構，前者以大廠Intel、AMD為首，後者則以普遍應用於嵌入式裝置的ARM，以及逐漸崛起的開源晶片指令集RISC-V為代表。
在邊緣伺服器運算上，CISC的優勢在於具備完整的指令集和強大的功能，例如多程序指令管線，能應對不同應用情境的泛用運算需求。然而，CISC處理器因具備較多的電晶體，因而運算上具較大功耗，其複雜性亦會使其在特定、重複性任務上產生較大的運算延遲。相較於此，RISC指令晶片則藉由削減處理器中的電晶體元件，並以精簡的指令集來達成任務，而得以提高對特定任務的性能，例如數據封包處理、影像處理等功能，並以更低的延遲回饋至終端設備。
在智慧製造場景中，邊緣伺服器所接收的設備數據源，多用於處理、儲存或運算特定任務的裝置數據(如感測器數據、視覺影像串流數據)，可在基礎指令集上擴展的RISC架構，因此具備一定運算優勢。以開源的RISC-V(RISC-Five)微處理器架構為例，其向量擴展指令(RVV)能夠加速單指令流的複數數據運算(Single Instruction Multiple Data)，適合處理如影像壓縮、機器學習、自然語言處理(NLP)等具即時性的邊緣任務，然而，CISC架構在管理平台可用性、相容性等方面，目前皆較RISC系統完善，以至於以Intel為主導的CISC晶片目前仍為邊緣伺服器主流。
另外，有鑑於「邊緣AI」的場景逐步落實於邊緣伺服器的AI晶片組中，使具高度時效性的機器學習、深度學習工作，無須上傳至核心雲端伺服器，也可在邊緣伺服器中進行運算，進一步降低數據深度分析的延遲，此即邊緣伺服器中除CPU架構外，另一需要考慮的要角─加速晶片。
加速晶片除擅長圖像平行運算、AI學習的GPU外，還包括用於進行大量低精度計算(如機器學習、AI推論)的張量處理單元(TPU)、神經網路處理單元(NPU)、以及將複雜的AI模型直接保存在處理器中的智慧處理單元(IPU)，此類晶片搭載於邊緣伺服器中，可進一步降低特定應用的運算延遲。
整體而言，「邊緣運算」與「5G」作為製造場域超低延遲應用發展的關鍵技術之態勢已逐漸明顯。面對逐漸擴大的製造場域邊緣運算及5G市場需求，主要大廠皆已開始為製造業提供差異化的低延遲解決方案，來解決特定產業議題。
NVIDIA的GPU加速晶片目前已廣泛運用於邊緣伺服器中，作為影像分析、機器學習、AI推論的關鍵技術模組，而NVIDIA自身亦推出5G邊緣運算於智慧製造的產品線，以一站式的解決方案，提供視覺監控、感測器數據分析、AMR智慧載具應用之低延遲技術應用。
另一方面，微軟Azure與英特爾(Intel)則分別以其雲服務管理、處理器運算優勢，聚焦工廠IoT的設備應用，切入預測性維護、生產自動化、工業設備協同控制等低延遲應用領域。而國內業者凌華，則以其提早布局的DDS及ROS 2技術，切入5G環境下異質設備協作與群機協作的工控應用。國際大廠在智慧製造領域提供的方案彙整如表1。
除上述IT大廠及硬體製造商，尚有不同領域業者進入超低延遲的技術競賽中，例如將邊緣產品線定位於遠程辦公、遠距控制的思科(Cisco)，以及以5G的MEC部署功能切入邊緣伺服器產品的電信商諾基亞(Nokia)，都著眼於工業場景的低延遲應用市場潛力，並開始進行解決方案布局。
